Isaac Levitan sinh năm 1860 trong một gia đình gốc Do Thái nghèo nhưng có học thức ở thị trấn Kibarty, tỉnh Kovno (nay là Kaunas, Litva). Năm Levitan lên 10 thì cả gia đình chuyển về Moskva.

Tháng 9 năm 1873, Isaac Levitan thi đỗ vào Trường hội họa, điêu khắc và kiến trúc Moskva nơi anh trai của ông, Avel, cũng đã theo học được hai năm. Ở trong trường, Levitan được học các họa sĩ phong cảnh nổi tiếng của Nga lúc bấy giờ là A. K. Savrasov, V. G. Perov và V. D. Polenov. Levitan học rất giỏi và được nhận học bổng của trường. Tuy vậy khi học được hai năm thì mẹ của Isaac mất, cha ông thì lâm bệnh nặng và không thể tiếp tục hỗ trợ bốn anh chị em Levitan học tập chỉ nhờ vào mỗi tiền công từ việc dạy thêm do ông đã phải nghỉ công việc trong ngành đường sắt, sau đó ông cũng mất năm 1877 vì bệnh thương hàn. Cả gia đình Levitan lâm vào cảnh nghèo túng, bản thân Isaac Levitan thường xuyên phải nhịn đói hoặc ngủ lại trường nhưng nhờ có sự hỗ trợ của các giáo sư vốn yêu quý tài năng của Levitan, ông mới có thể tiếp tục việc học tập. Do cuộc sống thiếu thốn và việc học tập vất vả, sức khỏe và tinh thần của Levitan đã bắt đầu giảm sút ngay từ những năm này. Ông tốt nghiệp năm 1885.